Phí Ngọc Thanh sinh ra và lớn lên trong một gia đình viên chức tại Đài Bắc, Đài Loan; cha của ông là người gốc Đồng Thành, An Huy; gia đình ông có ba người con, trong đó Phí Ngọc Thanh là con út. Năm 1972 và 1973, khi Phí Ngọc Thanh 17 tuổi, ông tham gia cuộc thi ca hát "Tinh đối tinh/星對星" do Công ty Truyền hình Trung Quốc tổ chức, giành vị trí thứ tư với ca khúc "Mưa bụi tà dương/煙雨斜陽". Sau khi hoàn thành thời gian thực hiện nghĩa vụ quân sự vào năm 1975, Phí Ngọc Thanh tiếp tục đi hát tại các quán bar và nhà hàng. Năm 1977, dưới sự giới thiệu của chị gái, Phí Ngọc Thanh gặp gỡ nhạc sĩ Lưu Gia Xương, người sau này viết cho Phí Ngọc Thanh nhiều ca khúc đáng nhớ trong sự nghiệp của ông, cũng như kí kết hợp đồng với công ty phát hành đĩa Hải Sơn/海山唱片 và thu âm album đầu tiên của mình.[1]

Năm 1979, Phí Ngọc Thanh thu âm ca khúc "晚安曲 (Vãn an khúc)/Bài ca chúc ngủ ngon". Ca khúc sau đó được đài CTV của Đài Loan bắt đầu sử dụng làm ca khúc khép lại một ngày phát sóng. Sau khi Thiết quân luật tại Đài Loan được dỡ bỏ, CTV cũng dừng việc sử dụng ca khúc mở đầu và kết thúc cho phần phát sóng mỗi ngày. Nhưng điều đặc biệt hơn là, sau năm 1991, “Vãn an khúc” lại trở thành bản nhạc được các cửa hàng bách hóa phát sử dụng để báo hiệu giờ đóng cửa. Kể từ đó, “truyền thống” này trở nên ngày một phổ biến: ca khúc được phát tại cửa hàng đồ ăn nhanh, khu thương mại, nhà hàng, thư viện,… “Vãn an khúc” trở thành ca khúc không chính thức để kết thúc một ngày kinh doanh, làm việc. Ngoài ra, ở một số doanh trại quân đội tại Trung Quốc Đại lục, bài hát cũng được phát cho quân nhân nghe trước giờ ngủ. Sang tới những năm 2000, do Đài Loan đã nghiêm ngặt hơn trong vấn đề sở hữu trí tuệ, việc phát ca khúc này cũng bị ảnh hưởng phần nào. Tuy nhiên, việc những chủ cửa hiệu dùng “Vãn an khúc” để thông báo cho khách hàng rằng giờ đóng cửa sắp tới vẫn còn rất phổ biến tại đất nước này. Năm 1994, “Vãn an khúc” được phát hành trong album riêng cùng tên của Phí Ngọc Thanh. Năm 1996, “Vãn an khúc” được trao giải Đài Loan Kim khúc cho album xuất sắc nhất.

Năm 1988, bộ phim "一翦梅 (Nhất tiễn mai)/Một nhành mai" trở thành bộ phim truyền hình đầu tiên của Đài Loan được phát sóng tại Trung Quốc Đại lục, và nhanh chóng nhận được sự quan tâm của khán giả. Ca khúc chủ đề phim (cũng mang tên "Nhất tiễn mai") do Phí Ngọc Thanh thể hiện cũng qua đó giới thiệu tên tuổi của ông tới với khán thính giả Trung Quốc (trước đó cái tên Phí Ngọc Thanh chỉ quen thuộc với khán thính giả Đài Loan). Qua nhiều thập kỉ, "Một nhành mai" đã trở thành ca khúc kinh điển của điện ảnh và ca nhạc Hoa ngữ, được rất nhiều ca sĩ thể hiện, nhưng giọng ca của Phí Ngọc Thanh vẫn để lại nhiều ấn tượng trong lòng người xem.

Năm 2006, Phí Ngọc Thanh thu âm cùng Châu Kiệt Luân ca khúc "千里之外 (Thiên lý chi ngoại)/Ngoài xa ngàn dặm" cho album "Still Fantasy" của Châu Kiệt Luân. Ca khúc sớm có được vị trí cao trên các bảng xếp hạng âm nhạc năm đó và trở thành ca khúc kinh điển của cả ông và Châu Kiệt Luân. Ca khúc đã giới thiệu giọng ca của Phí Ngọc Thanh tới với khán giả trẻ tuổi bấy giờ, cũng như giúp những khán tuổi lớn tuổi hơn biết đến tên tuổi Châu Kiệt Luân. Năm 2007, Phí Ngọc Thanh thu âm bản đơn ca (solo) cho "Thiên lý chi ngoại" trong album "青青校樹/Thanh thanh giáo thụ" và tháng 2 năm 2008 đơn ca thể hiện ca khúc này trong chương trình mừng năm mới của đài CCTV4. Tháng 8 năm 2016, Phí Ngọc Thanh và Châu Kiệt Luân lần đầu tiên song ca bài hát này trên sóng truyền hình, trong chương trình "中國新歌聲 (Sing! China)". Tại Việt Nam, đây vẫn là một trong những ca khúc của Phí Ngọc Thanh được thính giả Việt trẻ biết tới nhiều hơn cả.

Ngày 27 tháng 9 năm 2018, Phí Ngọc Thanh tuyên bố sẽ rút khỏi ca đàn. Chuyến lưu diễn cuối cùng của ông được lên kế hoạch vào tháng 2, tháng 3 và tháng 5 năm 2019 tại Ma Cao, Thượng Hải, Singapore và Đài Bắc.[2] Buổi biểu diễn hòa nhạc cuối cùng của ông đã được kéo dài đến tháng 10 năm 2019.[3] Ông cũng tham gia thi đấu trong chương trình cuối cùng "Our Song" với A Vân Ca cho đến tháng 1 năm 2020.

Vào năm 2020, ca khúc "Nhất tiễn mai/Một nhành mai" (được biết đến với "Xue hua piao piao bei feng xiao xiao") đã trở thành một meme Internet, đứng đầu trên bảng xếp hạng Spotify Viral 50 ở các quốc gia như Na Uy, Thụy Điển, Phần Lan và New Zealand.[4]